최근 AI 기술이 무분별하게 학습되면서 성인 콘텐츠 제작자들의 신체가 도용되어 본인 동의 없이 딥페이크 음란물이 제작되는 심각한 문제가 발생하고 있습니다. 또한 구글 제미나이(Gemini) 등 생성형 AI 챗봇이 학습 데이터에 포함된 일반인의 실제 전화번호를 무단으로 제공하는 프라이버시 침해 사례가 속출하고 있어, AI 개발 및 서비스 제공 측면에서 데이터 보안 및 윤리적 가이드라인 마련의 시급성을 보여줍니다.
AI 딥페이크 기술 악용으로 유명인의 초상과 음성이 사기성 광고에 무단 사용되는 사례가 급증하고 있습니다. 최근 AI 탐지 기업 Copyleaks 보고서에 따르면, 테일러 스위프트 등 유명인의 가짜 영상을 활용해 개인정보를 수집하는 사기 광고가 틱톡에 등장했습니다. 이에 따라 연예인들이 자신의 얼굴과 목소리를 보호하기 위해 법적 조치를 취하는 등 AI 딥페이크로 인한 피해 방지가 중요한 과제로 떠올랐습니다.
2026년 4월, AI 데이터 라벨링 기업 머코(Mercor)에서 4만 명의 계약직 작업자 신분증 사진과 스튜디오급 음성 녹음 데이터 4TB가 유출되었습니다. 단순 녹음을 넘어 신원 정보와 결합된 이 데이터는 정교한 딥보이스(Deepfake) 제작과 금융 사기 등에 악용될 수 있어 매우 심각한 보안 위협으로 평가받고 있습니다. 이 사건으로 인해 이미 다수의 집단 소송이 제기되었으며, 피해자들은 자신의 생체 정보가 도용되지 않았는지 즉각 확인해야 합니다.
남성 자위 및 포르노 중독 극복을 돕는 앱 'Quittr'가 구글 파이어베이스 설정 오류로 인해 미성년자를 포함한 사용자의 민감한 개인정보가 외부에 노출되는 심각한 보안 취약점을 안고 있었습니다. 최소 3명의 독립적인 보안 연구원들이 수개월에 걸쳐 취약점 사실과 수정 방법을 알렸으나, 개발 측은 이를 방치했고 언론(404 Media)의 다수의 취재 및 검증 이후에서야 뒤늦게 문제를 해결했습니다.
한 개발자가 BrowserStack 가입 시 생성한 고유 이메일 주소가 며칠 만에 외부 데이터 브로커인 Apollo.io로 넘어간 사실을 적발했습니다. 문의 결과 Apollo는 BrowserStack이 자사의 고객 기여 네트워크에 참여하여 사용자 연락처를 공유했다고 실토했습니다. 다수의 항의에도 BrowserStack은 어떠한 공식 답변도 내놓지 않고 있어 사용자 정보 유출 의혹이 짙어지고 있습니다.